Индия казва на технологичните гиганти да контролират дълбоките фалшификации съгласно „изрични“ правила
Висш служител в правителството на Нарендра Моди предупреди, че компаниите за социални медии ще бъдат държани отговорни за генерирани от AI „дълбоки фалшификации“, публикувани на техните платформи в съответствие с „ много ясни и ясни правила“, докато Индия се подготвя за общи избори тази година.
Раджиев Чандрасекар, държавен министър на електрониката и ИТ, каза, че Индия се е „събудила по-рано“ за опасността, породена от дълбоки фалшиви фалшификации, отколкото други страни поради размера на онлайн населението им. Около 870 милиона души са свързани с интернет, докато 600 милиона използват социални медии от общо население от 1,4 милиарда.
„Ние сме най-голямата демокрация в света [и] очевидно сме дълбоко загрижени за въздействието на трансгранични участници, използващи дезинформация, използвайки дезинформация, използвайки дълбоки фалшификати, за да причинят проблеми в нашата демокрация“, каза Чандрасекар пред Financial Times. „Бяхме предупредени за това по-рано от повечето страни, защото това ни влияе по лош начин много повече, отколкото по-малките страни.“
Предупреждението за фалшификатите идва, след като Моди, който се стреми да бъде преизбран за трети мандат в парламентарни избори, очаквани през април и май, повдигна темата в неотдавнашни коментари и докато Индия упражнява регулаторното си влияние върху компании, обслужващи една от най-големите популации от интернет потребители на планетата.
Изследователите предупредиха, че дълбоките фалшиви изображения, видео и аудио, създадени от евтини инструменти за изкуствен интелект, които могат убедително да пресъздадат човешки същества, са нарастваща заплаха за демокрациите. Фалшиви клипове вече са използвани за влияние върху политиката и изборите в Обединеното кралство, Бангладеш, Нигерия, Судан и Словакия.
Междувременно социалните медийни платформи изготвиха правила за борба с дълбоките фалшификации. Meta, X и TikTok вече изискват измамни манипулирани медии да бъдат свалени или етикетирани. Meta и Google наскоро обявиха правила, които изискват кампаниите да разкриват дали политическите им реклами са били дигитално променени.
Някои страни проучват ограничаването на дълбоките фалшификати в контекста на порнографията, както и в политиката, например. В САЩ, например, няма федерални закони, които изрично да регулират технологията. Въпреки това множество щатски законодатели преследват законодателство за справяне с политическите дълбоки фалшификати.
Ню Делхи, в съвет, публикуван на 26 декември и изпратен до социални медии и платформи за съобщения, активни в Индия, включително YouTube, X, WhatsApp, Telegram, Snap и местната социална мрежа Koo, поиска технологичните компании да се съобразят с индийското законодателство относно незаконното съдържание и го посочват ясно в техните условия за обслужване и потребителски споразумения.
Индийските ИТ правила, изготвени през 2021 г., също забраняват съдържание, което се счита за вредно за децата, застрашава националната сигурност или разпространява дезинформация, наред с други ограничения върху свободата на словото.
Директивата предупреждава платформите да „идентифицират и премахват дезинформация, която е очевидно невярна, невярна или подвеждаща по своята същност и се представя за друго лице, включително тези, създадени с помощта на дълбоки фалшиви съобщения“.
„Нашият подход към deepfakes, след като министър-председателят обърна внимание на това, е да кажем на посредниците, да насочим вниманието им към факта, че законът на страната забранява на всеки потребител на тяхната платформа да хоства дезинформация, включително deepfakes и налагане на задължение на платформите, че ако някой потребител го направи, този потребител ще наруши закона“, каза Чандрасекар.
Той добави: „Като позволи на потребителя да продължи да публикува това съдържание, платформата би нарушила закона.“
Той каза, че хората са направили грешката да смесват САЩ, където правата на първата поправка са „абсолютни и безусловни“, с останалия свят, включително Индия.
„Ние всъщност създаваме форма на технологично регулиране, която е между САЩ и Европа“, каза служителят. „САЩ го оставят изцяло на пазарите; Европа го прави напълно ориентирана към гражданите; и ние всъщност казваме „Ние обичаме иновациите, ще насърчаваме иновациите, но искаме да защитим нашите малки предприятия и потребители“.
На последните избори в Индия, проведени през 2014 г. и 2019 г., социалните медии изиграха важна роля в кампанията, водена и спечелена от управляващата партия Bharatiya Janata. BJP на Моди се очаква да спечели тазгодишните избори в лицето на слаба и разделена опозиция.
Индия е чувствителен пазар за компаниите от Силициевата долина, тъй като Индийския национален конгрес обвини платформи като YouTube в „забрана в сянка“ на част от тяхното съдържание, като речите на депутата Рахул Ганди, докато групите на гражданското общество твърдят, че технологичните компании се подчиняват твърде лесно на заповедите на правителството на Modi за сваляне. През последните години на социалните платформи беше наредено да премахват публикации, критични например към справянето на индийското правителство с пандемията от коронавирус и блокираха критиците на Моди.
Индия е един от най-големите световни пазари за платформите на Meta като WhatsApp и Facebook, както и Google и неговия видеоканал в YouTube. Групи на гражданското общество обвиняват правителството на Моди в прекалена усърдие в контрола върху интернет, което според тях е част от по-широкото потискане на свободата на изразяване в Индия. писмо, изпратено този месец до Чандрасекар и други длъжностни лица, отговорни за определянето на правителствената ИТ политика, Фондацията за свобода на интернет, неправителствена група, твърди, че те биха могли „непропорционално да засегнат политически неудобна или противоречива реч и потенциално да доведат до произволна цензура“.
Чандрасекар отхвърли твърденията за прекомерни действия на правителството, като каза, че „никой не може да спори, че материали със сексуално насилие над деца или дълбоки фалшификати или педофилско или нарушаващо патент съдържание е нечие нарушение на нечии права“.
„Индия води това обвинение, където от платформите се иска да поемат все повече и повече отговорност и да бъдат по-отговорни за всичко незаконно, което се случва на тяхната платформа“, каза той.
